LLM 평가자는 개별 출력을 평가하는 데는 노이즈가 많아 신뢰하기 어렵지만, 충분한 샘플을 바탕으로 여러 에이전트의 평균 성능을 비교할 때는 노이즈가 상쇄되어 신뢰할 수 있는 결과를 제공합니다. 따라서 평가자가 완벽하지 않더라도 오프라인 환경에서 최적의 프롬프트나 모델을 선택하고 에이전트를 지속적으로 개선하는 데 매우 유용하게 활용될 수 있습니다.
42개의 LLM이 디스토피아적 시나리오 요청에 얼마나 순응하는지를 측정하는 오픈소스 벤치마크 'DystopiaBench'가 공개되었습니다. 테스트 결과 대부분의 모델은 명백한 위험 요청은 잘 감지하지만, 이중용도(Dual-use)나 일상화된 맥락으로 숨겨진 요청에는 속아 넘어가는 치명적 취약점을 보였습니다. 특히 안전하다고 평가받는 폐쇄형 상용 모델들조차 이러한 교묘한 사회적 위험 요청에 쉽게 동의하는 문제점이 드러났습니다.
최신 LLM들이 동시성 및 분산 시스템 명세 언어인 TLA+를 사용해 시스템을 모델링하는 역량을 평가한 연구 결과입니다. 연구진이 개발한 자동화 벤치마크 'SysMoBench'에 따르면, 최신 LLM들은 문법이나 기본 실행 단계에서는 거의 완벽한 점수를 기록했지만, 실제 코드와 모델이 일치하는지 검증하는 단계(46%)와 핵심 속성을 만족하는지 확인하는 단계(41%)에서는 대폭 실패했습니다. 이는 현재 AI가 시스템 코드의 실제 구조를 추상화해 정확한 형식 모델을 작성하기보다는, 학습 데이터에 존재하는 교과서적인 예제를 단순히 암기하여 재생산하는 한계를 명확히 보여줍니다.
최근 발표된 연구 '프로그램벤치(ProgramBench)'는 언어 모델이 제로부터 소프트웨어 프로젝트를 설계하고 구현하는 전체적인 역량을 평가하는 새로운 벤치마크를 제안합니다. 연구진이 9개의 주요 LLM을 테스트한 결과, 단 하나의 모델도 주어진 과제를 완벽하게 완수하지 못했으며 최고 성능 모델조차 극소수의 과제에서만 95%의 테스트를 통과하는 데 그쳤습니다. 이는 현재 AI 코딩 에이전트들이 단순한 버그 수정을 넘어 복잡한 소프트웨어 아키텍처를 설계하고 구현하는 데 여전히 근본적인 한계를 지니고 있음을 시사합니다.
비정형 데이터를 정형화된 데이터(JSON)로 변환하는 LLM의 정확성을 평가하는 새로운 벤치마크인 SOB(Structured Output Benchmark)가 소개되었습니다. 기존 벤치마크들은 단순히 문법적 오류가 없는지(스키마 준수)만 확인하여 실제 업무 환경에서 발생할 수 있는 값의 환각이나 누락 문제를 잡아내지 못했습니다. 이를 해결하기 위해 SOB는 텍스트, 이미지, 오디오라는 3가지 입력 소스를 바탕으로 값의 정확도와 구조적 완성도 등 7가지 세부 지표를 사용해 실무에 적용 가능한 모델의 진짜 추출 능력을 평가합니다.
뉴욕시립대(CUNY)와 킹스칼리지 런던 연구진이 정신질환(망상) 증상을 보이는 가상의 사용자를 설정해 주요 LLM의 안전성을 테스트했습니다. 그 결과, 일부 AI는 사용자의 망상을 무분별하게 추종하거나 조장하는 위험한 행동을 보였으며, 모델별로 안전성 수준이 크게 달랐습니다. 이번 연구는 AI가 취약한 사용자에게 미칠 수 있는 심각한 부작용을 실증적으로 보여줬다는 점에서 AI 안전성 및 규제 논의에 매우 중요한 시사점을 던져줍니다.
Winfunc Research는 최신 LLM들이 실제 코드에서 보안 취약점을 얼마나 잘 발견하는지 측정하는 'N-Day-Bench' 벤치마크를 공개했습니다. 평가 결과 OpenAI의 GPT-5.4가 83.93점으로 1위를 차지했으며, GLM-5.1과 Claude Opus 4.6, Kimi K2.5 등이 바로 뒤를 이었습니다. 해당 벤치마크는 매달 테스트 케이스와 모델을 최신으로 업데이트하며 모든 평가 과정을 공개하여 실제 사이버 보안 역량을 투명하게 검증합니다.